Biti čovjek u vremenu transhumanizma

Nedavno sam pročitala prvu encikliku pape Lava XIV. Posebno su me zanimala poglavlja koja se bave umjetnom inteligencijom, kritikom suvremenog društva, transhumanizmom i sličnim aktualnostima sadašnjeg svijeta. Papin je pristup ovim temama analitički, konzistentan, a pritom aktualne probleme, dileme, pitanja ili bojazni obrađuje na gotovo razgovornom, vrlo razumljivom jeziku. Treće je poglavlje posebno zanimljivo, a naslovljeno je O zaštiti ljudske osobe u vrijeme umjetne inteligencije. Unutar tog poglavlja posebno se obrađuje tema o „odgovornosti, transparentnosti i upravljanju umjetnom inteligencijom“ te ću izdvojiti neke zanimljive konstatacije: „Korištenje umjetne inteligencije nikada nije isključivo tehničko pitanje: kada ulazi u procese koji utječu na živote ljudi, dotiče se prava, mogućnosti, statusa i slobode. Važne i osjetljive odluke – koje se tiču ​​zapošljavanja, kredita, pristupa javnim uslugama ili čak nečijeg ugleda – riskiraju da budu u potpunosti delegirane automatiziranim sustavima koji ne poznaju suosjećanje, milosrđe, oprost i prije svega nadu da se ljudi mogu promijeniti te stoga mogu dovesti do novih oblika isključenosti. Jasno je da postoje štetne upotrebe, poput manipulacije informacijama ili kršenja privatnosti. No postoji i suptilnija opasnost, jer kada se sustavi umjetne inteligencije predstavljaju kao neutralni i objektivni, oni na kraju odražavaju i pojačavaju stereotipe ili ideološke pristranosti svojih dizajnera i programera. Doista, povjeravanje algoritmu u praksi moći odabira tko je dostojan, a tko ne, bez da itko snosi odgovornost za tu prosudbu, znači prepuštanje zadatka redefiniranja granica ljudskih mogućnosti. U tom procesu gubi se i politička odgovornost, ne samo empatija prema isključenima, koja se, uostalom, može simulirati. Isključenost ranjivih postaje obavijena velom neutralnosti i objektivnosti, protiv čega postaje teško iznijeti prigovore. Na taj način nepravda ostaje nezapažena, a suosjećanje, milosrđe i oprost – shvaćeni ne kao puki privid već kao stvarne političke akcije – postupno nestaju iz vidokruga.“

Hrvatski prijevod papine enciklike
Magnifica humanitas

Papa se ovaj put zaista ozbiljno bavi pitanjima kako zaštiti čovječanstvo u vrijeme transformacije. Očito je pravo vrijeme za ta pitanja. Nije prekasno, ali moglo bi biti ako se neki od procesa koji se upravo odvijaju u današnjem svijetu ne okončaju na valjan, etički način.

Kakve veze s papinom enciklikom imaju primjerice rojevi dronova kojima upravlja umjetna inteligencija na ratištima u Gazi ili Ukrajini? Ogromne. Naime, desetljećima se govori o tome da sustav autonomnog ratovanja bez stvarnog nadzora čovjeka ne smije biti „pušten u opticaj“. Unatoč tome, pušten je i to već prije nekoliko godina. Znamo doduše i kada su bili prvi priznati slučajevi, a gotovo je sigurno da takvi slučajevi postoje mnogo duže, što je neslužbeno ili možda bolje da i ne znamo. Papa s pravom iznosi strahove i ozbiljne brige. Jer umjetna inteligencija već odavno ne služi samo za analizu podataka ili navigaciju. Njezina primjena u izravnoj borbi i ratovima novi je izazov i prijetnja koja izaziva iznimnu zabrinutost jer strojevi počinju autonomno donositi odluke o životu i smrti bez adekvatnog ljudskog nadzora.

Danas znamo da SAD, Ukrajina, Njemačka, Kina, Francuska, Rusija, Južna Koreja i druge zemlje razvijaju tehnologiju tzv. rojeva dronova. No, ono što je otkrilo ovu priču je činjenica da nismo znali za njezinu redovitu primjenu u borbama ili ratovima sve dok se ova tehnologija umjetne inteligencije nije pojavila u Ukrajini. Poznato je da je SAD istražuje niz desetljeća, a Izrael je priznao da su je koristili u Gazi. Znamo za poginule civile. Znamo i da se trenutačno vojske i tvrtke širom svijeta natječu u razvoju softvera koji koriste umjetnu inteligenciju za povezivanje i upravljanje skupinama dronova, omogućujući im međusobnu komunikaciju i koordinaciju nakon lansiranja. Taj sustav omogućuje da dronovi sami odrede koji će od njih prvi napasti, ali i da se prilagode ako jedan od njih, primjerice, ostane bez baterije. Imaju zadane ciljeve i to je jasno, no hoće li razlikovati civila od vojnika ili cilj od druge mete koja to nije baš u svim okolnostima – nema stopostotnog jamstva.

Vojni analitičari zabrinuto komentiraju kako je ljudski faktor kontrole, odnosno operater, u uvjetima bojišta, sveden na minimum, ponekad i isključen iz odlučivanja. Dakle, strojevi već sada ubijaju ljude. Kao da nije previše ratova u kojima ljudi svjesno ubijaju ljude. Ušli smo u vrli transhumanizam gdje smo postigli novu razinu distopijskog stanja u kojem nas i strojevi mogu ubijati a da pritom nitko njima ne upravlja. Izgleda da je znanstveno-tehnološki napredak postao obrnuto proporcionalan moralnom i etičkom. Nadam se da će čim prije krenuti približavanje tih amplituda jer u protivnom ne idemo u dobrom smjeru.

U tom kontekstu navodim još jedan dio iz papine enciklike: „Kvaliteta civilizacije ne mjeri se snagom njezinih sredstava, već brigom koju je u stanju ponuditi, sposobnošću da prepozna drugoga kao lice, a ne samo kao funkciju. Sposobnost brige jednih za druge temeljna je dimenzija naše ljudskosti, ona koja se uči i svladava kroz životno iskustvo. Čitanje priča djetetu, nuđenje društva starijoj osobi i uređenje doma tako da bude gostoljubiv jednostavne su geste često ukorijenjene u obiteljskom životu. Uče nas cijeniti brigu na društvenoj razini i osposobljavaju nas da prepoznamo druge kao osobe vrijedne pažnje. Tehnologija također može podržati ovu međusobnu brigu među ljudima, naprimjer, pružajući alate koji nam pomažu predvidjeti i organizirati stvari, bez potkopavanja ljudske slobode i rasuđivanja. Uostalom, ljudska su bića subjekti odnosa i odgovorna su za vlastite odluke.“